Joe Cole được gọi vào đội tuyển Anh để tham dự World Cup 2002 và Euro 2004 nhưng không được ra sân mà chỉ ngồi ghế dự bị.

Năm 2005, Joe Cole đảm nhận vai trò tiền vệ cánh trái của đội tuyển Anh trong suốt vòng loại World Cup 2006 và cùng đội tuyển Anh giành vé đến Đức dự World Cup 2006 với vị trí nhất bảng 7.

Tại World Cup 2006, Joe Cole ghi được một bàn thắng trong trận gặp Thụy Điển tuy nhiên đội tuyển Anh bị loại ở tứ kết trước Bồ Đào Nha.

Tại vòng loại Euro 2008, thất bại của đội tuyển Anh trước đội tuyển Nga và đội tuyển Croatia khiến đội tuyển Anh chỉ xếp hạng 3 chung cuộc khi vòng loại kết thúc. Điều đó đồng nghĩa Joe Cole và nhiều đồng đội trong câu lạc bộ Chelsea như Frank Lampard và John Terry không thể tham dự Euro 2008.

Ngày 31 tháng 5 năm 2010, Joe Cole đã được huấn luyện viên Fabio Capello chọn vào danh sách 23 cầu thủ Anh tham dự World Cup 2010 tại Nam Phi.[9] Hai trận đấu đầu tiên với Mỹ và Algeria, anh đã không được ra sân.[10] Đến trận cuối cùng vòng bảng với Slovenia, Cole vào sân ở phút 70 thay thế Wayne Rooney.[11] Trong trận thua đội tuyển Đức 1-4 tại vòng 2, anh vào sân thay cho James Milner ở phút 64.[12]